z ); (h ˆ,h ) = arccos h,h ˆ,h ) [0,π]; α A (z )= max (h z = 0 R 2. Òîãäà Ω A (z ) = {z R : z = 1}, co Ω A (z ) z = {z R 2 : z 1}, z < 1.

Transcript

1 ÂÅÑÒÍÈÊ ÓÄÌÓÐÒÑÊÎÃÎ ÓÍÈÂÅÐÑÈÒÅÒÀ. ÌÀÒÅÌÀÒÈÊÀ. ÌÅÕÀÍÈÊÀ. ÊÎÌÏÜ ÒÅÐÍÛÅ ÍÀÓÊÈ ÓÄÊ c Â. Í. Ó àêîâ, À. À. Óñïåíñêèé α-ìíîæåñòâà Â ÊÎÍÅ ÍÎÌÅÐÍÛÕ ÅÂÊËÈÄÎÂÛÕ ÏÐÎÑÒÐÀÍÑÒÂÀÕ È ÈÕ ÑÂÎÉÑÒÂÀ 1 Ï èâîäèòñß ïîíßòèå α-ìíîæåñòâà â êîíå íîìå íîì åâêëèäîâîì ï îñò àíñòâå, ßâëß ùååñß îäíèì èç îáîáùåíèé ïîíßòèß âûïóêëîãî ìíîæåñòâà. Âîçíèêíîâåíèå òîãî ïîíßòèß ñâßçàíî ñ èçó åíèåì ñâîéñòâ ìíîæåñòâ äîñòèæèìîñòè íåëèíåéíûõóï àâëßåìûõñèñòåì. Â àáîòå îï åäåëßåòñß èñëîâàß õà àêòå èñòèêà ñòåïåíè íåâûïóêëîñòè ìíîæåñòâà, íà îñíîâå êîòî îé îñóùåñòâëßåòñß êëàññèôèêàöèß ìíîæåñòâ. Ââîäßòñß â àññìîò åíèå àíàëîãè áàçîâûõ ïîíßòèé èç âûïóêëîãî àíàëèçà è èçó à òñß èõ ñâîéñòâà. Ôî ìóëè ó òñß è äîêàçûâà òñß óòâå æäåíèß â äóõå òàêèõòåî åì èç âûïóêëîãî àíàëèçà, êàê òåî åìà î ñóùåñòâîâàíèè îïî íîé ãèïå ïëîñêîñòè ê âûïóêëîìó ìíîæåñòâó è òåî åìû îá îòäåëèìîñòè âûïóêëûõìíîæåñòâ â åâêëèäîâîì ï îñò àíñòâå. Èçó àåòñß ïîíßòèå ìàæî è óåìîñòè íåâûïóêëûõìíîæåñòâ. Ñâîéñòâî ìàæî è óåìîñòè ßâëßåòñß äîñòàòî íûì óñëîâèåì äëß ï åäñòàâëåíèß çàìêíóòîãî íåâûïóêëîãî ìíîæåñòâà â âèäå ïå åñå åíèß ïîëóï îñò àíñòâ â ñìûñëå ââåäåííûõâ àáîòå îï åäåëåíèé. Ïîëó åííûå åçóëüòàòû òåî èè îòäåëèìîñòè íåâûïóêëûõìíîæåñòâ àñï îñò àíß òñß íà ñëó àé ïîäã àôèêîâ è íàäã àôèêîâ ñêàëß íûõôóíêöèé, óäîâëåòâî ß ùèõóñëîâè Ëèï èöà. Êë åâûå ñëîâà: âûïóêëîå ìíîæåñòâî, âûïóêëàß îáîëî êà, α-ìíîæåñòâî, α-ãèïå ïëîñêîñòü, α-îòäåëèìîñòü. DOI: /vm Ââåäåíèå Â íàñòîßùåé àáîòå ï èâîäèòñß ïîíßòèå α-ìíîæåñòâà â êîíå íîìå íîì åâêëèäîâîì ï îñò àíñòâå êàê íåêîòî îå îáîáùåíèå ïîíßòèß âûïóêëîãî ìíîæåñòâà. Îíî áûëî ââåäåíî â íà àëå 2000-õ ãîäîââ[1], ñôî ìè îâàëîñü ï è àññìîò åíèè íåêîòî ûõ çàäà óï àâëåíèß, îòíîñßùèõñß ê èçó åíè ìíîæåñòâäîñòèæèìîñòè óï àâëßåìûõ ñèñòåì âêîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ. Ìíîæåñòâà äîñòèæèìîñòè òàêèõ ñèñòåì, êàê ï àâèëî, íåâûïóêëû. Äëß îäíèõ ñèñòåì òè ìíîæåñòâà ìàëî îòëè à òñß îò âûïóêëûõ, äëß ä óãèõ îòëè èå îò âûïóêëûõ ìíîæåñòâ âåñüìà îùóòèìî. Â ñâßçè ñ òèì âîçíèêëà åñòåñòâåííàß ïîò åáíîñòü â íàâåäåíèè îï åäåëåííîé êëàññèôèêàöèè òèõ ìíîæåñòâ ïî ñòåïåíè èõ íåâûïóêëîñòè. Òàê ïîßâèëîñü ïîíßòèå α-ìíîæåñòâà â R n. Âîçíèêëî òàêæå íàìå åíèå àñï îñò àíèòü íåêîòî ûå áàçîâûå êîíñò óêöèè è óòâå æäåíèß âûïóêëîãî àíàëèçà íà α-ìíîæåñòâà â R n. Äëß íàñ ï åäñòàâëßåò ñàìîñòîßòåëüíûé èíòå åñ, íå ñâßçàííûé ñ êàêèìè-ëèáî çàäà àìè óï àâëåíèß, âîï îñ î òîì, íàñêîëüêî ìîæíî ï îäâèíóòüñß â àñï îñò àíåíèè òåî åì âûïóêëîãî àíàëèçà ï è ïå åõîäå îò âûïóêëûõ ìíîæåñòâ ê α-ìíîæåñòâàì. Â àáîòå ââåäåíî íåñêîëüêî ïîëåçíûõ, íà íà âçãëßä, ïîíßòèé è, â àñòíîñòè, ïîíßòèå åãóëß íîãî ìíîæåñòâà â R n. Ê îìå òîãî, ï èâîäßòñß ïîíßòèß α-ãèïå ïëîñêîñòè è îïî íîé ãèïå ïëîñêîñòè â R n, ôî ìóëè ó òñß è îáîñíîâûâà òñß íåêîòî ûå óòâå æäåíèß îá α-îòäåëèìîñòè α-ìíîæåñòâ. Ï èâîäßòñß ï èìå û, èëë ñò è ó ùèå ââåäåííûå ïîíßòèß. Ðàáîòà ßâëßåòñß ï îäîëæåíèåì àáîòû [1]. 1. Îñíîâíûå îï åäåëåíèß è ïîíßòèß òåî èè α-ìíîæåñòâ Ïóñòü A μ çàìêíóòîå ìíîæåñòâî â n-ìå íîì åâêëèäîâîì ï îñò àíñòâå R n è z R n \ A. Ïîä ï îåêöèåé p(z ) òî êè z íà A ïîíèìàåì áëèæàé ó ê z òî êó â A. 1 Ðàáîòà âûïîëíåíà ï è ôèíàíñîâîé ïîääå æêå ÐÔÔÈ (ã àíò _à).

2 96 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Ïîëàãàåì: Ω A (z )={p(z )} μ ìíîæåñòâî âñåõ ï îåêöèé p(z ) òî êè z íà A; co Ω A (z ) μ âûïóêëàß îáîëî êà ìíîæåñòâà Ω A (z ); con(co Ω A (z ) z )={h = λ(z z ):λ 0, z co Ω A (z )} μ êîíóñ â R n, íàòßíóòûé íà ìíîæåñòâî co Ω A (z ) z = {z z : z co Ω A (z )}; H A (z ) μìíîæåñòâî âñåâîçìîæíûõ ïà (h,h ) íåíóëåâûõ âåêòî îâ h,h èç con (co Ω A (z ) z ); (h ˆ,h ) = arccos h,h h h [0,π] μ óãîë ìåæäó âåêòî àìè h è h, (h,h ) H A (z ); α A (z )= max (h ˆ,h ) [0,π]; (h,h ) H A (z ) h,h μñêàëß íîå ï îèçâåäåíèå h è h èç R n, h = h,h 1/2. Ïîëàãàåì α = α A = sup α A (z ) [0,π]. z R n \A Îï åäåëåíèå 1. Ìíîæåñòâî A íàçîâåì α-ìíîæåñòâîì â R n. Îòìåòèì íåêîòî ûå ñâîéñòâà ôóíêöèè α A (z ), z R n \ A. Ñâîéñòâî 1. Ôóíêöèß α A (z ), z R n \A, íå ßâëßåòñß, âîîáùå ãîâî ß, íåï å ûâíîé ôóíêöèåé. Äåéñòâèòåëüíî, àññìîò èì êîìïàêò A = {z R 2 :1 z 2} â ïëîñêîñòè R 2. Ïóñòü z = 0 R 2. Òîãäà Ω A (z ) = {z R : z = 1}, co Ω A (z ) z = {z R 2 : z 1}, con (co Ω A (z ) z )=R 2 è, çíà èò, α A (z )=π. Â òî æå â åìß α A (z )=0äëß âñåõ z 0, z < 1. Ñâîéñòâî 2. Ôóíêöèß α A (z), z R n \ A, ïîëóíåï å ûâíà ñâå õó. Äåéñòâèòåëüíî, âîçüìåì ï îèçâîëüíó òî êó z R n \ A. Ïóñòü {z (k) } μ ïîñëåäîâàòåëüíîñòü òî åê z (k), z (k) z,k=1, 2,..., ñõîäßùàßñß ê z. Îòîá àæåíèå z Ω A (z), z R n \ A, ïîëóíåï å ûâíî ñâå õó ïî âêë åíè è, ñëåäîâàòåëüíî, îòîá àæåíèå z con (co Ω A (z) z), z R n \ A, ïîëóíåï å ûâíî ñâå õó ïî âêë åíè. Ïóñòü (h (k),h (k) ) μ òå ïà û èç H A (z (k) ), íà êîòî ûõ äîñòèãàåòñß α A (z (k) )= max (h,h ) H A (z (k) ) (h ˆ,h ). Íå íà ó àß îáùíîñòè àññóæäåíèé, áóäåì ñ èòàòü, òî h (k) ï åäåëû h 0 = lim k h(k) =1, h (k) =1è ñóùåñòâó ò,h 0 = lim k h (k). Â ñèëó ïîëóíåï å ûâíîñòè ñâå õó îòîá àæåíèß z Ω A (z), z R n \ A, âåêòî û h 0 è h 0 ñîäå æàòñß â con (co Ω A (z ) z ),è,çíà èò, lim α A(z (k) ) = lim k k ˆ,h (k) )=(h 0 ˆ,h 0 ) sup (h (k) (h,h ) H A (z ) (h ˆ,h )=α A (z ). Ñëåäîâàòåëüíî, lim α A(z (k) ) α A (z ) äëß ë áîé ïîñëåäîâàòåëüíîñòè z (k),z (k) R n \ A, k z (k) z, lim k z(k) = z. Ñâîéñòâî 2 äîêàçàíî. Âîçíèêàåò åñòåñòâåííûé âîï îñ î òîì, äîñòèãàåòñßëèsup â àâåíñòâå α = α A = sup α A (z )? z R n \A Â îáùåì ñëó àå îòâåò íà òîò âîï îñ îò èöàòåëåí. Ï èìå 1. Ïóñòü ìíîæåñòâî A èç R 2 ï åäñòàâèìî â âèäå A = K 1 K2 K3, ãäå K 1 è K 2 μ ïîëóê óãè åäèíè íîãî àäèóñà, à K 3 μ åòâå òü ê óãà àäèóñà 2 (ñì. èñ. 1). Ðàññìîò èì ïîñëåäîâàòåëüíîñòü {z (k) } òî åê z (k) R 2 \{0}, ï èíàäëåæàùèõ äèàãîíàëè 1-ãî êâàä àíòà ïëîñêîñòè R 2 è óäîâëåòâî ß ùèõ àâåíñòâó lim k z(k) = 0. Èìååò ìåñòî

3 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 97 x 2 z 1 z 2 K 1 z 3 x 1 0 K 3 K 2 Ðèñ. 1. lim α A(z (k) )= π k 2. Íåò óäíî ïîêàçàòü, òî â àññìàò èâàåìîì ñëó àå α A = lim α A(z (k) )= π k 2, è ï è òîì α A(z ) < π 2 äëß ë áîãî z R 2 \ A. sup α A (z )= z R 2 \A Ñ ä óãîé ñòî îíû, èìååòñß ìíîãî ï èìå îâ ìíîæåñòâ A â R 2 ñ èñëîì α = α A = π 2, â êîòî ûõ sup α A (z ) äîñòèãàåòñß íà R 2 \ A. z R 2 \A Ï èìå 2. Ïóñòü A = {(x 1,x 2 ): 4π <x 1 < 4π, x 2 =sinx 1 } (ñì. èñ. 2). òîìï èìå å α A (z 0 )= π 2 = sup α A (z ), z 0 R 2 \ A. z R 2 \A Âîçíèêàåò âîï îñ î äîñòàòî íî îáùèõ äîñòàòî íûõ óñëîâèßõ, îáåñïå èâà ùèõ äîñòèæèìîñòü sup α A (z ) íà R n \ A. Îòíîñèòåëüíî òîãî âîï îñà âûñêàæåì ñëåäó ùèå ñîîá àæåíèß: z R 2 \A 1. Ïóñòü êîìïàêòíîå ìíîæåñòâî A èç R n èìååò ãëàäêó ã àíèöó A â R n (îï åäåëåíèå ãëàäêîñòè ñì., íàï èìå, â[2]). Òîãäà sup z R 2 \A α A (z ) äîñòèãàåòñß íà R n \ A. 2. Ïóñòü A μíåîáßçàòåëüíî âûïóêëûé ìíîãîã àííèê â R n. Òîãäà sup α A (z ) äîñòèãàåòñß z R 2 \A íà R n \ A. Åñëè äëß íåêîòî îãî çàìêíóòîãî ìíîæåñòâà A R n èìååò ìåñòî α = α A =0, òî äëß ë áîé òî êè z R n \ A âûïîëíßåòñß α A (z ) = 0, òî åñòü Ω A (z ) ñîñòîèò èç îäíîé òî êè π(z ). Èçâåñòíî (ñì. [3]), òî â òîì ñëó àå A μ çàìêíóòîå âûïóêëîå ìíîæåñòâî â R n. Èìååò ìåñòî òàêæå îá àòíîå óòâå æäåíèå: Åñëè A μ çàìêíóòîå âûïóêëîå ìíîæåñòâî â R n, òî α A (z )=0 äëß ë áîé òî êè z R n \ A, è,çíà èò, α = α A =0. Èòàê, âûïóêëûå çàìêíóòûå ìíîæåñòâà A â R n è 0-ìíîæåñòâà â R n μ òî êâèâàëåíòíûå ïîíßòèß. èñëî α = α A ìîæíî ò àêòîâàòü êàê ñòåïåíü âîãíóòîñòè ìíîæåñòâà A. Òàê, ó çàìêíóòûõ âûïóêëûõ ìíîæåñòâ A â R n òà ñòåïåíü àâíà 0.

4 98 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé x 2 z 0 R 2 x 1 π(z 0 ) π(z 0 )=0 Ðèñ. 2. Äîïóñòèì òåïå ü, òî äëß íåêîòî îé òî êè z R n \ A âûïîëíåíî óñëîâèå z / co Ω A (z ). (1.1) Òîãäà ñóùåñòâóåò ãèïå ïëîñêîñòü Γ={x R n : s, x = γ} (s R n,s 0,γ R 1 ) â R n, ñò îãî àçäåëß ùàß ìíîæåñòâà {z } è co Ω A (z ): s, z < min s, w. Îòñ äà ñëåäóåò, w co Ω A (z ) òî äëß ë áîé òî êè w co Ω A (z ) âå íî s, x < s, w. Çíà èò, äëß ë áîãî âåêòî à w z co Ω A (z ) z âûïîëíßåòñß s, w z > 0 è, ñëåäîâàòåëüíî, cos( s, ˆw z ) > 0. Ýòî îçíà àåò, òî âå íî íå àâåíñòâî min cos ( s,h) ˆ > 0, êîòî îå êâèâàëåíòíî íå àâåíñòâó h con (co Ω A (z ) z ) Èç (1.2) ñëåäóåò max ( s, ˆ h) < π h con (co Ω A (z ) z ) 2. (1.2) α A (z )= max (h,h ) H A (z ) (h ˆ,h ) <π. (1.3) Ñï àâåäëèâî òàêæå ñëåäó ùåå óòâå æäåíèå: Åñëè äëß íåêîòî îé òî êè z R n \A âûïîëíßåòñß (1.3), òî âûïîëíßåòñß (1.1). Âìåñòå ñ òåì óñòàíîâëåíà êâèâàëåíòíîñòü ñîîòíî åíèé (1.1) è (1.3). Îï åäåëåíèå 2. Çàìêíóòîå ìíîæåñòâî A â R n íàçîâåì åãóëß íûì ìíîæåñòâîì â R n, åñëè äëß ë áîé òî êè z R n \ A âûïîëíßåòñß (1.1). Èç ï åäûäóùèõ àññóæäåíèé ñëåäóåò, òî åñëè A μ åãóëß íîå ìíîæåñòâî, òî α A (z ) <π äëß ë áîé òî êè z R n \A. Ï è òîì îòíîñèòåëüíî α = α A âîçìîæåí îäèí èç äâóõ âà èàíòîâ: 1. α = α A <π; 2. α = α A = π, ï è åì α A (z ) <πäëß ë áîé òî êè z R n \ A. Òàêèì îá àçîì, åãóëß íûå ìíîæåñòâà â R n μ òî èëè α-ìíîæåñòâà A ñ èñëîì α = α A <π, èëè π-ìíîæåñòâà, òàêèå, òî α A (z ) <πäëß âñåõ z R n \ A.

5 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 99 Îï åäåëåíèå 3. Çàìêíóòîå ìíîæåñòâî A â R n íàçîâåì íå åãóëß íûì ìíîæåñòâîì â R n, åñëè îíî íå ßâëßåòñß åãóëß íûì ìíîæåñòâîì â R n, ò.å. åñëè α A (z )=π äëß íåêîòî îé òî êè z R n \ A. Åñëè ñ èòàòü, òî 0-ìíîæåñòâà â R n ñîñòàâëß ò ëåâûé ê àé ñïåêò à α-ìíîæåñòâ, òî íå åãóëß íûå ìíîæåñòâà ìîæíî ñ èòàòü ñîñòàâëß ùèìè ï àâûé ê àé ñïåêò à. Ï èâåäåì äâà óòâå æäåíèß, îòíîñßùèåñß ê çàìêíóòûì ìíîæåñòâàì â R n. Ââåäåì îáîçíà- åíèå ρ(z) =min a A z a 2, z R n. Òåî åìà 1. Ïóñòü A μ åãóëß íîå ìíîæåñòâî â R n. Òîãäà äëß ë áîãî çàìêíóòîãî ìíîæåñòâà B â R n (B A, B A), äëß êîòî îãî sup ρ(b) äîñòèãàåòñß íà B, âñå òî êè b ìíîæåñòâà B, ìàêñèìàëüíî óäàëåííûå îò A, óäîâëåòâî ß ò âêë åíè b B. b B Äîêàçàòåëüñòâî.Ïóñòü A è B óäîâëåòâî ß ò óñëîâèßì òåî åìû 1, è b μ ìàêñèìàëüíî óäàëåííàß òî êà ìíîæåñòâà B îò A. Ïîëàãàåì ε = ρ(b) 1 2 (0, ). Ðàññìîò èì çàìêíóòó ε-îê åñòíîñòü A ε = {w R n : ρ(w) 1 2 ε} ìíîæåñòâà A. Ñï àâåäëèâî âêë åíèå b A ε. Ï åäïîëîæèì, òî b / B. Îòñ äà ñëåäóåò b int B. Òîãäà B(b; δ) ={z R n : z b δ} B A ε ï è íåêîòî îì δ (0, ). Çíà èò, äëß ë áîé òî êè z B(b; δ) âûïîëíßåòñß ρ(z) 1 2 ε. Îòñ äà ñëåäóåò, òî äëß ë áûõ s S = { s R n : s 1} è λ k (0,δ) âûïîëíßåòñß ρ(b + λ k ) 1 2 ε, è,çíà èò, ρ(b + λ k s) ρ(b) 0. Ïóñòü {λ k } óäîâëåòâî ßåò óñëîâèßì 0 <λ k <δ, lim λ k =0. k Ñï àâåäëèâî íå àâåíñòâî ρ(b + λ k s) ρ(b) λ k 0, k =1, 2,... (1.4) Èç (1.4) âûòåêàåò ρ (b; s) 0, s S; çäåñü ρ (b; s) = lim ï îèçâîäíàß ïî íàï àâëåíè s ôóíêöèè ρ(z) âòî êå b. Äëß ï îèçâîäíîé ρ (b; s) ñï àâåäëèâî àâåíñòâî k ρ(b+λ k s) ρ(b) λ k ρ(b+λs) ρ(b) = lim λ λ μ ρ (b; s) = d ds min a A z a 2 z=b = min p(b) Ω A (b) d ds z p(b) 2 z=b =2 min p(b) Ω A (b) b p(b),s ; çäåñü ñèìâîë d ds f(z) z=b îçíà àåò ï îèçâîäíó ïî íàï àâëåíè s ôóíêöèè f(z) âòî êå z = b. Òàê êàê b/ A, òî èç óñëîâèß åãóëß íîñòè ìíîæåñòâà A ñëåäóåò b/ co Ω A (b). Ïî òåî åìå îá îòäåëèìîñòè âûïóêëûõ ìíîæåñòâ (ñì., íàï èìå, [4, 5]) ñóùåñòâóåò ãèïå ïëîñêîñòü Γ= {z R n : s, z }, (s R n, s 0, γ R 1 ) â R n, ñèëüíî àçäåëß ùàß ìíîæåñòâà {b} è co Ω A (b). Íå íà ó àß îáùíîñòè àññóæäåíèé, áóäåì ñ èòàòü, òî ï è òîì s âå íî b p(b),s > 0, p(b) Ω A (b). Îòñ äà ñëåäóåò ρ (b; s) > 0 íà òîì âåêòî å s. Ï è ëè ê ï îòèâî å è ñ óñëîâèåì ρ (b, s) 0 äëß ë áîãî s. Çíà èò, ï åäïîëîæåíèå î òîì, òî b/ B, íåâå íî. Òåî åìà 1äîêàçàíà. Òåî åìà 2. Ïóñòü A μ çàìêíóòîå ìíîæåñòâî â R n è ε (0, ). Òîãäà α Aε α A. Äîêàçàòåëüñòâî.Ïóñòü z R n \ A ε è w = p ε (z ) μ ï îåêöèß òî êè z íà A ε Ïîëàãàåì δ = w z > 0 è B(z ; δ) ={z R n : z z δ} μ à ñ öåíò îì â z àäèóñà δ. à B(z ; δ) óäîâëåòâî ßåò ñîîòíî åíè B(z ; δ) int A ε =. (1.5)

6 100 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Äëß òî êè w R n \ A ε àññìîò èì òî êó y = p(w ) μ ï îåêöè òî êè w íà A. Èìåß â âèäó, òî y z = ε, àññìîò èì à B(y ; ε) ={z R n : z y ε}. à B(y ; ε) óäîâëåòâî ßåò âêë åíè B(y ; ε) A ε. (1.6) Èç (1.6) ñëåäóåò âêë åíèå int B(y ; ε) int A ε,èçêîòî îãî ñ ó åòîì (1.5) âûòåêàåò Ñ ä óãîé ñòî îíû, âûïîëíßåòñß âêë åíèå B(z ; δ) int B(y ; ε) =. (1.7) w B(z ; δ) B(y ; ε). (1.8) Ñîîòíî åíèß (1.7), (1.8) îçíà à ò, òî à ûb(z ; δ) è B(y ; ε) êàñà òñß ä óã ä óãà âòî êå w (ñì. èñ. 3). B(z ; δ) z B(y ; ε) w y A A ε z Ðèñ. 3. Èç ôàêòà êàñàíèß à îâ B(z ; δ) è B(y ; ε) â òî êå w ñëåäóåò, òî îò åçêè z w è w y ëåæàò íà îäíîé ï ßìîé â ï îñò àíñòâå R n. Ñëåäîâàòåëüíî, àññòîßíèå ìåæäó z è y àâíî z y = δ + ε. Ñ ä óãîé ñòî îíû, âèäèì, òî àññòîßíèå ìåæäó z è ë áîé òî êîé z A óäîâëåòâî ßåò íå àâåíñòâó z z δ + ε. Ñëåäîâàòåëüíî, z y =min z A z z. Ýòî îçíà àåò, òîy = p(z ). Îòñ äà ñëåäóåò w z = p ε (z ) z = γ(p(z ) z ), γ (0, ). Ó èòûâàß òîò ôàêò, ïîêàæåì, òî n+1 i=1 con (co Ω Aε (z ) z ) con (co Ω A (z ) z ). (1.9) Äåéñòâèòåëüíî, ïóñòü h co Ω Aε (z ) z, è ïî òîìó h = n+1 i=1 λ i (h (i) z ), ãäå λ i 0, λ i =1, h (i) Ω Aε (z ), i =1,...,n+1. Ñ ä óãîé ñòî îíû, ïî äîêàçàííîìó àíåå, ñï àâåäëèâî h (i) z = γ i (h (i) z ), γ i > 0, h (i) Ω A (z ), i =1,...,n+1.

7 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 101 Òîãäà ïîëó àåì n+1 h = λ i γ i (h (i) z ), λ i γ i 0, h (i) Ω A (z ), i =1,...,n+1. i=1 Îáîçíà èì å åç ρ = n+1 1,...,n+1è n+1 i=1 λ i γ i ρ =1. i=1 λ i γ i > 0. Ïîëó àåì 1 ρ h = n+1 i=1 λ i γ i ρ (h (i) z ), ãäå λ iγ i ρ 0, i = Ýòî îçíà àåò, òî 1 ρ h = h co Ω A (z ) z, è, ñëåäîâàòåëüíî, h = ρh, ãäå ρ 0, h Ω A (z ) z,ò.å. h con (co Ω A (z ) z ). Òåì ñàìûì äîêàçàíî âêë åíèå co Ω Aε (z ) z con (co Ω A (z ) z ), è, ñëåäîâàòåëüíî, âêë åíèå (1.9). Èç (1.9) ñëåäóåò, òî äëß z R n \ A ε âå íî íå àâåíñòâî α Aε (z ) α A (z ). Èç òîãî íå àâåíñòâà ïîëó àåì α Aε (z )= sup α Aε (z ) sup α A (z ) sup α A (z )=α A. z R n \A ɛ z R n \A ɛ z R n \A Òåî åìà 2äîêàçàíà. 2. Ìàæî è óåìîñòü α-ìíîæåñòâ. Òåî åìû îá îòäåëèìîñòè α-ìíîæåñòâ Â òîì àçäåëå àññìàò èâà òñß ìíîæåñòâà â R n è, â îñíîâíîì, â R 2. Ï åäï èíßòà ïîïûòêà àñï îñò àíèòü íåêîòî ûå áàçîâûå ïîíßòèß è òåî åìû èç âûïóêëîãî àíàëèçà íà α-ìíîæåñòâà â R n. Ï èâåäåì íåêîòî ûå îï åäåëåíèß. Îï åäåëåíèå 4. Îáîçíà èì å åç A α è B α ñîâîêóïíîñòü âñåõ çàìêíóòûõ ìíîæåñòâ A â R n ñîîòâåòñòâåííî ñ èñëîì α A = α è α A α, ãäå α [0,π]. SSñíî, òî A α B α,α [0,π] è B α = Ïóñòü α [0,π]. β [0,α] A β. Îï åäåëåíèå 5. α-ãèïå ïëîñêîñòü Γ â R n íàçîâåì òàêîé ãîìåîìî ôíûé îá àç ãèïå ïëîñêîñòè â R n, òî: 1. Γ A α ; 2. Γ àçáèâàåò R n íà äâà çàìêíóòûõ ìíîæåñòâà â R n, ãîìåîìî ôíûõ çàìêíóòîìó ïîëóï îñò àíñòâó â R n. Çàìêíóòûå ìíîæåñòâà â R n èç îï åäåëåíèß 5 îáîçíà èì å åç Φ è Φ +. Ñîãëàñíî îï åäåëåíè 5, òè ìíîæåñòâà åñòü ëåìåíòû èç B α,èõîòß áûîäíî èç íèõ μ ëåìåíò ñîâîêóïíîñòè A α :max{α Φ,α Φ +} = α. Φ (Φ+) íàçîâåì α-ïîëóï îñò àíñòâîì â R n, åñëè Φ (Φ + ) ñîäå æèòñß â A α. Ï è òàêîì îï åäåëåíèè, åñëè Φ (Φ + ) ñîäå æèòñß âb α \A α, òî Φ (Φ + ) åñòü β-ïîëóï îñò àíñòâî â R n ï è íåêîòî îì β [0,α). Â ñëó àå, åñëè ìíîæåñòâà Γ, Φ, Φ + èç B α òàêîâû, òî äëß íåêîòî îé òî êè z R n èìååò ìåñòî z Γ, èëè z Φ, èëè z Φ +, áóäåì èíîãäà îáîçíà àòü òè ìíîæåñòâà òàê: Γ(z ), Φ (z ), Φ + (z ). Òàêæå â òåõ ñëó àßõ, êîãäà ßñíî, òî å ü èäåò îá α-ïîëóï îñò àíñòâå Φ è Φ +, áóäåì èíîãäà íàçûâàòü èõ ïîëóï îñò àíñòâàìè â R n.

8 102 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Îï åäåëåíèå 6. α-ãèïå ïëîñêîñòü Γ(z ) â R n íàçîâåì îïî íîé ê A A α âòî êå z A, åñëè A ñîäå æèòñß âîäíîì èç ïîëóï îñò àíñòâ Φ (z ), Φ + (z ), îòâå à ùèõ α-ãèïå ïëîñêîñòè Γ(z ). Òî èç ïîëóï îñò àíñòâ Φ (z ), Φ + (z ), êîòî îå ñîäå æèò A, áóäåì íàçûâàòü îïî íûì ê A âòî êå z. Îï åäåëåíèå 7. Áóäåì ãîâî èòü, òî ìíîæåñòâà A è B èç R n α-îòäåëèìû (B α -îòäåëèìû), åñëè ñóùåñòâóåò òàêàß α-ãèïå ïëîñêîñòü Γ â R n (òàêàß ãèïå ïëîñêîñòü Γ B α ), òî A Φ, B Φ + ; çäåñü Φ, Φ + μ ïîëóï îñò àíñòâà â R n, îòâå à ùèå ãèïå ïëîñêîñòè Γ. Îï åäåëåíèå 8. Áóäåì ãîâî èòü, òî ìíîæåñòâà A è B èç R n ñèëüíî α-îòäåëèìû (ñèëüíî B α -îòäåëèìû), åñëè ñóùåñòâóåò òàêàß α-ãèïå ïëîñêîñòü Γ (òàêàß ãèïå ïëîñêîñòü Γ B α )âr n è ρ (0, ), òî A ρ Φ,B ρ Φ + ; çäåñü Φ, Φ + μ ïîëóï îñò àíñòâà â R n, îòâå à ùèå ãèïå ïëîñêîñòè Γ. Ìû ï èâåëè îï åäåëåíèß íåêîòî ûõ áàçîâûõ ïîíßòèé, îòíîñßùèõñßêα-ìíîæåñòâàì â R n, μ àíàëîãîâ ñîîòâåòñòâó ùèõ ïîíßòèé èç âûïóêëîãî àíàëèçà. Íèæå ñôî ìóëè óåì è äîêàæåì íåñêîëüêî óòâå æäåíèé â äóõå òàêèõ òåî åì èç âûïóêëîãî àíàëèçà, êàê òåî åìà î ñóùåñòâîâàíèè îïî íîé ãèïå ïëîñêîñòè ê âûïóêëîìó ìíîæåñòâó è òåî åìû îá îòäåëèìîñòè âûïóêëûõ ìíîæåñòâ â R n. Îäíàêî ïîñêîëüêó ñëó àé α-ìíîæåñòâ ñëîæíåå, åì ñëó àé âûïóêëûõ ìíîæåñòâ(0-ìíîæåñòâ) â R n, òî ï è ôî ìóëè îâêå óòâå æäåíèé, îòíîñßùèõñß êα-ìíîæåñòâàì â R n, íàì ï èäåòñß ñòåñíèòü òè ìíîæåñòâà íåêîòî ûìè äîïîëíèòåëüíûìè óñëîâèßìè. Ñíà àëà àññìîò èì çàìêíóòûå ìíîæåñòâà â R 2, äëß êîòî ûõ ââåäåì ñâîéñòâî ìàæî è óåìîñòè (m-ñâîéñòâî); ïîêàæåì, òî íå âñå çàìêíóòûå ìíîæåñòâà â R 2 îáëàäà ò m-ñâîéñòâîì. Çàòåì ñôî ìóëè óåì è äîêàæåì íåêîòî ûå óòâå æäåíèß (â äóõå òåî åì âûïóêëîãî àíàëèçà) äëß α-ìíîæåñòâ â R 2, îáëàäà ùèõ m-ñâîéñòâîì. Èòàê, ïóñòü A μ çàìêíóòîå ìíîæåñòâî â R 2 è z A. Ââåäåì â R 2 ñëåäó ùèå ìíîæåñòâà: K(z ; A) ={h R 2 : h 0, z= z + λh A ï è íåêîòî ûõ λ (0, )} μ êîíóñ âîçìîæíûõ íàï àâëåíèé ìíîæåñòâà A âòî êå z ; K A (z )={z = z + λh : λ 0,h K(z ; A)}; Q A (z )=R 2 \ K a (z ), ãäå å òà μ îïå àöèß çàìûêàíèß ìíîæåñòâà â R 2. Ìíîæåñòâà K A (z ),Q A (z ) äëß óäîáñòâà èçëîæåíèß áóäåì íàçûâàòü êîíóñàìè â R 2. Êîíóñ Q A (z ) åñòü çàìêíóòîå, íå îáßçàòåëüíî âûïóêëîå ìíîæåñòâî â R 2. Çàìåòèì, òî äëß íåêîòî ûõ çàìêíóòûõ ìíîæåñòâ A â R 2 ñ èñëîì λ (0,π) è òî åê z A ìîæåò èìåòü ìåñòî Q A (z )= (ñì. èñ. 4). Íà èñ. 4 èçîá àæåí êîìïàêò A â R 2 ñ èñëîì α (0,π), óòü ìåíü èì, åì π. Êîìïàêò A èìååò ôî ìó ñîñèñêè, è èíà êîòî îé, âïëîòü äî âå òèêàëüíîãî è ãî èçîíòàëüíîãî îò åçêîâ, ñîäå æàùèõ öåíò û O 1 è O 3 îê óæíîñòåé àäèóñà r 1, íåèçìåííà è àâíà r 2 r 1 = r 4 r 3. Ã àíèöà A êîìïàêòà A ñîñòîèò èç åñòè äóã îê óæíîñòåé àäèóñîâ r i,i= 1, 4. Ã àíè íàß òî êà z êîìïàêòà A âûá àíà òàê, òî êîíóñû K(z ; A) è K A (z ) ñîâïàäà ò ñ R 2, è, çíà èò, Q A (z )=. Ïå åéäåì îò ï èìå à ê àññìîò åíè îáùåãî ñëó àß. Äîïóñòèì, òî äëß íåêîòî îãî çàìêíóòîãî ìíîæåñòâà A â R 2 è òî êè z A èìååò ìåñòî Q A (z ). Â òîì ñëó àå êîíóñ Q A (z ) åñòü, âîîáùå ãîâî ß, çàìêíóòîå âûïóêëîå ìíîæåñòâî â R 2.Q A (z ) ï åäñòàâëßåò ñîáîé îáúåäèíåíèå íåêîòî îãî íàáî à âûïóêëûõ çàìêíóòûõ êîíóñîâ K ω,ω Ωâ R 2 ñ âå èíîé z : Q A (z )= K ω ; (2.1) çäåñü Ω μ íåêîòî îå ìíîæåñòâî. ω Ω

9 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 103 x 2 R 2 A A r 2 r 4 O 2 r 1 r 3 z O 3 r 1 O 1 x 1 r 1 O Ðèñ. 4. R 2 A K ω,ω Ω Ðèñ. 5.

10 104 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Êîíóñ Q A (z ), ï åäñòàâëåííûé íà èñ. 5, ñîñòîèò èç ò åõ êîíóñîâ K ω,ω Ω={1, 2, 3}, ñ íåïóñòîé int K ω (ñì. èñ. 5). Áóäåì ãîâî èòü, òî z A μ òî êà òèïà I, åñëè: (a) Q A (z ) ; (b) ñóùåñòâóåò òàêîå ï åäñòàâëåíèå (2.1) êîíóñà Q A (z ), òî ñ åäè êîíóñîâ K ω, ω Ω, åñòü âûïóêëûé êîíóñ K ω ñ int K ω, íå ñîâïàäà ùèé ñ ïîëóïëîñêîñòü â R 2 ; (c) êîíóñ Q A (z ) íå äîïóñêàåò ï åäñòàâëåíèß (2.1), â êîòî îì ñ åäè êîíóñîâ K ω,ω Ω, íàéäåòñß êîíóñ, ñîâïàäà ùèé ñ ïîëóïëîñêîñòü â R 2. Áóäåì ãîâî èòü, òî z A μ òî êà òèïà II, åñëè: (a) Q A (z ) ; (b) êîíóñ Q A (z ) äîïóñêàåò ï åäñòàâëåíèå (2.1), â êîòî îì ñ åäè êîíóñîâ K ω, ω Ω, íàéäåòñß êîíóñ, ñîâïàäà ùèé ñ ïîëóïëîñêîñòü â R 2. Íà èñ. 6 èçîá àæåíû òî êè z A òèïà I è òèïà II. K ω R 2 A A z z K ω Ðèñ. 6. Â ñëó àå, êîãäà z A åñòü òî êà òèïà I, àññìîò èì ñîîòâåòñòâó ùèé êîíóñ K = K ω (èç óñëîâèß b), áèññåêò èñó êîíóñà K è êàêó -ëèáî òî êó y íà áèññåêò èñå, y z (ñì. èñ. 7). Èç y âîññòàíîâèì ïå ïåíäèêóëß û ê îá àçó ùèì (ê àéíèì ëó àì) êîíóñà K. å åç β = β(y ) îáîçíà èì ìåíü èé óãîë ìåæäó ïå ïåíäèêóëß àìè. Èìååò ìåñòî 0 <β<π. Óãîë β = β(y ) åñòü íåêîòî àß õà àêòå èñòèêà êîíóñà K, ñîäå æàùåãîñß âq A (z ). Ñëåäîâàòåëüíî, òà õà àêòå èñòèêà èìååò îòíî åíèå ê ñàìîìó ìíîæåñòâó A. Îäíàêî òà õà àêòå èñòèêà íå ñâßçàíà íåïîñ åäñòâåííî ñ ïîíßòèåì ï îåêöèè òî êè íà ìíîæåñòâî A. Óãîë β = β(y ) íå åñòü, âîîáùå ãîâî ß, óãîë ìåæäó äâóìß âåêòî àìè âèäà p(y ) y. Ââåäåííîå íèæå ñâîéñòâî ñâßçûâàåò õà àêòå èñòèêó β = β(y ) ñóãëîâîé õà àêòå èñòèêîé, âîñíîâå êîòî îé ëåæèò ïîíßòèå ï îåêöèè òî êè íà ìíîæåñòâî A. Îï åäåëåíèå 9. Áóäåì ãîâî èòü, òî çàìêíóòîå ìíîæåñòâî A â R 2 îáëàäàåò m-ñâîéñòâîì (ñâîéñòâîì ìàæî è óåìîñòè), åñëè äëß ë áîé òî êè z A ñóùåñòâóåò òàêîå ï åäñòàâëåíèå (2.1), â êîòî îì z åñòü òî êà òèïà I èëè òèïà II, è äëß ë áîé òî êè òèïà I ñ åäè ñîîòâåòñòâó ùèõ êîíóñîâ K = K ω íàéäåòñß òàêîé êîíóñ è äëß íåãî òàêàß òî êà z 0 R 2 \ A, òî β α A (z 0 ). Â ñâßçè ñ ï èâåäåííûìè îï åäåëåíèßìè âîçíèêàåò âîï îñ î ñóùåñòâîâàíèè â R 2 çàìêíóòûõ ìíîæåñòâ, ó êîòî ûõ ìíîæåñòâî òî åê z A òèïà I íåïóñòî è êîòî ûå ï è òîì îáëàäà ò m-ñâîéñòâîì. Îòâåò íà òîò âîï îñ ïîëîæèòåëåí. Ï èâåäåì ï èìå û òàêèõ ìíîæåñòâ.

11 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 105 y R 2 K β z Ðèñ. 7. Ï èìå 3. Ïóñòü çàìêíóòîå ìíîæåñòâî A â R 2 îã àíè åíî äóãàìè ò åõ îê óæíîñòåé (ñì. èñ. 8), ï è åì ê àéíèå òî êè z (1) è z (2) âíóò åííåé äóãè íå ñîâïàäà ò. K 2 z (1) z0 z (2) R 2 A z A K 1 Ðèñ. 8. Ë áàß âíóò åííßß òî êà z âíóò åííåé äóãè, âõîäßùåé â A, ßâëßåòñß òî êîé òèïà I. Òàê, íàï èìå, òî êå z, ï èíàäëåæàùåé âñåì ò åì äóãàì îäíîâ åìåííî, ñîîòâåòñòâóåò êîíóñ Q A (z )=R 2 \ K A (z )=K 1 K2, ãäå K 1 è K 2 μ çàìêíóòûå âûïóêëûå êîíóñû ñ âå èíîé z. Êîíóñû K 1 è K 2 èìå ò íåïóñòûå âíóò åííîñòè è íå ñîâïàäà ò ñ ïîëóïëîñêîñòü â R 2. Âèäèì, òî êîíóñ K = K 2 èìååò ñîîòâåòñòâó ùèé óãîë β = β(y ) <π.ñ ä óãîé ñòî îíû, α A = α A (z 0 ) äëß òî êè z 0 = 1 2 (z(1) + z (2) )=π. Òî êè z (1) è z (2), à òàêæå âíóò åííèå òî êè äâóõ âíå íèõ äóã, âõîäßùèõ â A, ßâëß òñß òî êàìè òèïà II. Âèäèì, òî ìíîæåñòâî A îáëàäàåò m-ñâîéñòâîì.

12 106 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Òàêèì îá àçîì, ï èâåäåííûé ï èìå ïîêàçûâàåò, òî ñîâîêóïíîñòü çàìêíóòûõ ìíîæåñòâ A â R 2, îáëàäà ùèõ m-ñâîéñòâîì, íåïóñòà. Âîçíèêàåò åñòåñòâåííûé âîï îñ: Ìîæåò áûòü, âñå íåâûïóêëûå çàìêíóòûå ìíîæåñòâà A â R 2, óêîòî ûõ z A åñòü òî êè òèïà I èëè òèïà II, îáëàäà ò m-ñâîéñòâîì? Ï èâåäåì ï èìå, ïîêàçûâà ùèé, òî îòâåò íà òîò âîï îñ îò èöàòåëåí. Ï èìå 4. Îñíîâó êîíñò óêöèè ñîñòàâëßåò ò åõçâåííàß ëîìàíàß X ñ óçëàìè â òî êàõ w =(0,b), y=( c, 0), u=(d, e), z=(2d + c, 0), ãäå ïà àìåò û b>0, c>0, d>0, e>0, èõ çíà åíèß îï åäåëèì íèæå. Ïîñò îèì õà àêòå èñòè åñêîå ìíîæåñòâî L(X), ñîñòîßùåå èç òî åê, èìå ùèõ íå ìåíåå äâóõ ï îåêöèé (áëèæàé èõ òî åê) íà ëîìàíîé X. Ëèíåéíàß ñò óêòó à X îï åäåëßåò ãåîìåò è õà àêòå èñòè åñêîãî ìíîæåñòâà. L(X) ßâëßåòñß îáúåäèíåíèåì îäíîìå íûõ è íóëüìå íûõ ìíîãîîá àçèé ââèäå äóã ïà àáîë, îòê ûòûõ îò åçêîâ(îò åçêîâáåç êîíöîâ), ïîëóï ßìûõ, òî åê è ñîäå æèò (ñì. èñ. 9): êîíå íó ñîâîêóïíîñòü { x (1),x (2),x (3)} òî åê ñêëåéêè îäíîìå íûõ ìíîãîîá àçèé; îòê ûòûé îò åçîê L 1 áèññåêò èñû óãëà, îá àçîâàííîãî çâåíüßìè wy è yu ëîìàíîé X; äóãó L 2 ïà àáîëû, ôîêóñ êîòî îé ñîâïàäàåò ñ òî êîé w, à äè åêò èñà μ ñ îñü Ox 1 ; äóãó L 3 = x (2) x (3) ïà àáîëû, ñîñòîßùó èç òî åê, àâíîóäàëåííûõ îò òî êè w èçâåíàuz ëîìàíîé X; ïîëóï ßìó L 4 ñ ê àéíåé òî êîé x (3), ñîñòîßùó èç òî åê, àâíîóäàëåííûõ îò êîíöîâ w è z ëîìàíîé X; îòê ûòûé îò åçîê L 5 = ux (2) áèññåêò èñû óãëà, îá àçîâàííîãî çâåíüßìè yu è uz ëîìàíîé X. x 2 L 4 x (3) L 3 w L L 2 1 x (2) α y α 0 x (1) g L 5 u q z x 1 Ðèñ. 9. Èçó èì ïîâåäåíèå ôóíêöèè α X ( ) íà õà àêòå èñòè åñêîì ìíîæåñòâå L(X) è îöåíèì ñâå õó åå ìíîæåñòâî çíà åíèé. Âûäåëèì îñîáî òî êó áèôó êàöèè x (2) μ åäèíñòâåííó òî êó èç L(X), èìå ùó íå äâå, à ò è àçëè íûå ï îåêöèè íà ëîìàíó X. Îäíîé èç ï îåêöèé ßâëßåòñß w, ä óãó îáîçíà èì g, ò åòü ï îåêöè îáîçíà èì q. Ï îåêöèè w, g è q óïî ßäî åíû ï îòèâ àñîâîé ñò åëêè îòíîñèòåëüíî òî êè x (2). Ïóñòü óãëû α 1 = w x (2) g, α 2 = g x (2) q, òîãäà α X (x (2) ) = α 1 + α 2.

13 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 107 Çàìåòèì, òî çà ñ åò íàäëåæàùåãî âûáî à çíà åíèé ïà àìåò îâ b, c, d, e óãîë α X (x (2) ) ìîæíî ñäåëàòü ìåíü å ë áîé íàïå åä çàäàííîé ïîëîæèòåëüíîé êîíñòàíòû. Ôóíêöèß α X ( ), áóäó è àññìîò åííîé íà ê èâîé L(y) =L 1 L 2 L 3 L 4 { x (1),x (2),x (3)}, â òî êå x (2) òå ïèò àç ûâ. Â òîé òî êå ï îèñõîäèò ñêà îê çíà åíèé ôóíêöèè íà âåëè èíó α 2 > 0 ï è äâèæåíèè âäîëü L(y) âíàï àâëåíèè îò x (1) äî x (2). Ã àôèê ñóæåíèß α X ( ) íà L(y) ï è íàòó àëüíîé ïà àìåò èçàöèè s = s(x) òîé ê èâîé ï åäñòàâëåí íà èñ. 10. Àíàëîãè íûì îá àçîì ôóíêöèß α X ( ) âåäåò ñåáß âäîëü ä óãîé õà àêòå èñòè åñêîé ëèíèè L(u) =L 5 { x (2)} ï è äâèæåíèè âäîëü L(u) â íàï àâëåíèè îò u äî x (2). Çäåñü òàêæå â òî êå x (2) ï îèñõîäèò ñêà îê çíà åíèé ôóíêöèè, íî íà âåëè èíó α 1 > 0. Çà ñ åò âûáî à ïà àìåò îâ óãëû α 1 è α 2, à âìåñòå ñ òèì è óãîë α X (x (2) )=α 1 + α 2, ìîæíî ñäåëàòü ìåíü å ë áîé ìàëîé ïîëîæèòåëüíîé âåëè èíû. Ï èìåì b =1/2, c=1. Ïîò åáóåì, òîáû e d + c =1/2. Òîãäà x(1) =(1/4, 0). Íàéäåì çíà åíèå ïà àìåò à d, ï è êîòî îì ïà àáîëà ñ ôîêóñîì âòî êå w è äè åêò èñîé, îï åäåëßåìîé çâåíîì yu ëîìàíîé X, ï îõîäèò å åç òî êó x (2) =(d, 1/2). Ïîäñòàâèâ b =1/2,c=1âó àâíåíèå ïà àáîëû 2b(d + c) 2 x 2 (d + c) 2 x e( 2(d + c)x 1 x 2 +2c(d + c)x 2 +2ecx 1 +2bex 2 ex 2 2) = =(d + c) 2 b 2 + e 2 (b 2 c 2 ), e ó èòûâàß ñîîòíî åíèå d + c =1/2, ïîëó èì êâàä àòíîå ó àâíåíèå d2 d 1=0. Îòêóäà ( d = Òîãäà e = 3+ 5, òî êè x (2) 1+ ) ( 5 =, 1 ; x (3) ) 5 = ( , 5) 4(3 + 5) (2.498, 3.474). α X α(x (1) ) α 2 O s(x (1) ) s(x (2) ) s Ðèñ. 10. Äîêàæåì, òî ï è òàêîì âûáî å ïà àìåò îâ âûïîëíßåòñß ñò îãîå íå àâåíñòâî α X (x (2) ) <α X (x (1) ). ( α0 ) Îáîçíà èì α 0 óãîë ìåæäó çâåíüßìè wy è yu ëîìàíîé X. Èìååì tg = b 2 c = e d + c =1/2. Îòñ äà α 0 =2arctg1/2. Ïîñêîëüêó tg α 0 = 2 1/2 1 (1/2) 2 =4/3, òî α 0 =arctg4/3. Îáîçíà èì α äîïîëíåíèå óãëà α(x (2) ) äî π, ò.å. α = π α(x (2) ). Èç ïîäîáèß ï ßìîóãîëüíûõ ò åóãîëüíèêîâ (ñì. èñ. 9) ïîëó àåì, òî tg α = c/b =2. Òîãäà α =arctg2. Îòñ äà α X (x (1) )=π α 0 = π arctg 4/3, α X (x (2) ) = π α = π arctg 2. Ò åáóåìîå íå àâåíñòâî α X (x (1) ) >α X (x (2) ) äîêàçàíî.

14 108 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Íåïîñ åäñòâåííîé ï îâå êîé óáåæäàåìñß â òîì, òî ôóíêöèß α X ( ) ìîíîòîííî óáûâàåò âäîëü ê èâîé L 1 L 2 ï è åå îáõîäå âíàï àâëåíèè îò òî êè y äî òî êè x (2) : α X (x) α X (x (1) ), x L 1 L 2. Àíàëîãè íî ìîæíî ïîêàçàòü, òî α X ( ) ìîíîòîííî óáûâàåò âäîëü ê èâîé L 3 L 4 {x (3) } ï è åå îáõîäå âíàï àâëåíèè îò òî êè x (2) äî òî êè x (3). Ñòàëî áûòü, äëß âñåõ òî åê ê èâîé L(y) âûïîëíßåòñß îöåíêà α X (x) α X (x (1) ), x L(y). Îñòàëîñü çàìåòèòü, òî ôóíêöèß α X ( ) íà îòê ûòîì îò åçêå L 5 ïîñòîßííà, ï è åì äëß âñåõ òî åê x L 5 ñï àâåäëèâî àâåíñòâî α X (x) = α 0 =arctg4/3. Ïîñêîëüêó α 0 < α X (x (2) ), à α X (x (2) ) <α X (x (1) ), òî äëß âñåõ òî åê ê èâîé L 5 x (2) ñï àâåäëèâî íå àâåíñòâî α X (x) < α X (x (1) ). Â èòîãå ïîëó àåì îöåíêó α X (x) <α X (x (1) ), x L(X). Îïè àßñü íà ïîëó åííûå åçóëüòàòû, ïîñò îèì íåâûïóêëîå êîìïàêòíîå ìíîæåñòâî A, íå îáëàäà ùåå m-ñâîéñòâîì. Äëß òîãî ñêîíñò óè îâàííó ëîìàíó X äîïîëíèì äî çàìêíóòîé ëèíèè âûïóêëîé ê èâîé, ñîåäèíß ùåé òî êè w è z. Â êà åñòâå òàêîé ê èâîé âûáå åì, íàï èìå, äóãó X ëëèïñà, ï îõîäßùåãî å åç òî êè w è z. Çàìêíóòàß ê èâàß X X ßâëßåòñß êóñî íî-ãëàäêîé è îã àíè- èâàåò êîìïàêòíî íåâûïóêëîå ìíîæåñòâî, êîòî îå îáîçíà èì A (ñì. èñ. 11). Íåò óäíî âèäåòü, òî õà àêòå èñòè åñêîå ìíîæåñòâî L(A) ìíîæåñòâà A ñîâïàäàåò ñ L(X). x 2 L 4 x (3) L 3 y w L 1 L 2 x (1) x (2) L 5 z x 1 u A Ðèñ. 11. Ïîñêîëüêó α A (x) =0, êîãäà x R 2 \ L(A) (â ñèëó åäèíñòâåííîñòè ï îåêöèè òî êè x íà ìíîæåñòâî A), è α A (x) α A (x (1) ), êîãäà x L(A) (îáîñíîâàíèå ï èâåäåíî âû å), òî α A = sup α A (x) =α A (x (1) )=π arctg 4/3. x R n \A

15 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 109 Ðàññìîò èì Q A (y) μ çàìûêàíèå äîïîëíåíèß êîíóñà âîçìîæíûõ íàï àâëåíèé ìíîæåñòâà A â òî êå y A. Â äàííîì ñëó àå y ßâëßåòñß òî êîé òèïà I, êîíóñ Q A (y) =wyz, ò.å. ñîñòîèò èç îäíîé âûïóêëîé êîìïîíåíòû K 1,K 1 = Q A (y). Íà áèññåêò èñå êîíóñà K 1 âûáå åì òî êó y y, âû èñëèì óãîë Î åâèäíî, òî β(y )=π arctg 1/2. α A <β(y ). Ïîñëåäíåå íå àâåíñòâî îçíà àåò, òî A íå ßâëßåòñß m-ìàæî è óåìûì ìíîæåñòâîì â ñìûñëå îï åäåëåíèß 9. Âå íåìñß ê èçó åíè çàìêíóòûõ ìíîæåñòâ A â R 2, îáëàäà ùèõ m-ñâîéñòâîì. Äàäèì åùå îäíî îï åäåëåíèå. Ïîëàãàåì A 0 = A äëß ï îèçâîëüíîãî çàìêíóòîãî ìíîæåñòâà A â R 2. Îï åäåëåíèå 10. Áóäåì ãîâî èòü, òî çàìêíóòîå ìíîæåñòâî A â R 2 îáëàäàåò óñèëåííûì m-ñâîéñòâîì, åñëè äëß ë áîé ε-îê åñòíîñòè A ε,ε [0, ), âûïîëíßåòñß m-ñâîéñòâî. Ëåãêî ïîêàçûâàåòñß, òî ñîâîêóïíîñòü çàìêíóòûõ ìíîæåñòâ â R 2, îáëàäà ùèõ óñèëåííûì m-ñâîéñòâîì, íåïóñòà. Äëß òîãî ï èâåäåì ï èìå (ñì. èñ. 12). x 2 A ε A O x 1 Ðèñ. 12. SSñíî, òî ï èìå îâçàìêíóòûõ ìíîæåñòâ A A α,α [0,π), âr 2, îáëàäà ùèõ óñèëåííûì m-ñâîéñòâîì, ìíîãî. Ò óäíåå, íà íà âçãëßä, íàéòè ìíîæåñòâî A A α, α [0,π), â R 2, îáëàäà ùåå m-ñâîéñòâîì, íî íå îáëàäà ùåå óñèëåííûì m-ñâîéñòâîì. Ñôî ìóëè óåì è äîêàæåì íåêîòî ûå óòâå æäåíèß îòíîñèòåëüíî α-ìíîæåñòââäóõå óòâå æäåíèé âûïóêëîãî àíàëèçà. Ýòè óòâå æäåíèß èìå ò ñìûñë äîñòàòî íûõ óñëîâèé, è â èõ ôî ìóëè îâêàõ ï èñóòñòâóåò m-ñâîéñòâî. Òåî åìà 3 (î ñóùåñòâîâàíèè îïî íîé α-ãèïå ïëîñêîñòè). Ïóñòü A èç R 2 óäîâëåòâî ßåò âêë åíè A A α,α [0,π), îáëàäàåò m-ñâîéñòâîì, à òàêæå z A. Òîãäà ñóùåñòâóåò õîòß áû îäíà α-ãèïå ïëîñêîñòü, îïî íàß ê A â òî êå z. Äîêàçàòåëüñòâî.Ïóñòü z A. Òîãäà, ïî óñëîâèßì òåî åìû, ñóùåñòâóåò òàêîå ï åäñòàâëåíèå (2.1), ñîãëàñíî êîòî îìó z åñòü òî êà òèïà I èëè òèïà II.

16 110 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Åñëè z μ òî êà òèïà I, òî ñ åäè ñîîòâåòñòâó ùèõ êîíóñîâ K ω,ω Ω, èç ï åäñòàâëåíèß (2.1) íàéäåòñß êîíóñ K = K ω, àòàêæå òî êà z 0 R 2 \A òàêèå, òî β(y ) α A (z 0 ). Ïîñêîëüêó A åñòü α-ìíîæåñòâî, òî α A (z 0 ) α, è, çíà èò, β(y ) α. Òîãäà óãîë ï è âå èíå z êîíóñà K àâåí π β(y ) π α. Ïîñëåäíåå íå àâåíñòâî îçíà àåò, òî âêîíóñ K ìîæíî âëîæèòü íåêîòî ûé çàìêíóòûé âûïóêëûé êîíóñ K o c âå èíîé â òî êå z 0 èóãëîì ï è âå èíå, àâíûì π α. Î åâèäíî, òî ã àíèöà K o êîíóñà K o åñòü α-ãèïå ïëîñêîñòü â R 2. Ïîëàãàåì Γ(z )= K o, Φ (z )=R 2 \ K o, Φ + (z )=K o. Èç ïîñò îåíèß K o âèäíî, òî A Φ (z ). Çíà èò, Γ(z ) μ α-ãèïå ïëîñêîñòü, îïî íàß ê A âòî êå z. Åñëè z A μ òî êà òèïà II, òî äîêàçàòåëüñòâî î åâèäíî. Òåî åìà 3 äîêàçàíà. Òåî åìà 4 (î ñèëüíîé îòäåëèìîñòè òî êè è α-ìíîæåñòâà). Ïóñòü A A α,α [0,π), μ ìíîæåñòâî â R 2, îáëàäà ùåå óñèëåííûì m-ñâîéñòâîì, è z R 2 \ A. Òîãäà ìíîæåñòâà {z } è A ñèëüíî α-îòäåëèìû. Äîêàçàòåëüñòâî.Òàê êàê A çàìêíóòî â R 2 è z R 2 \ A, òî ˆρ(z )=min z z A z = ε (0, ). Ïî òåî åìå 2 âûïîëíßåòñß α ε = α Aε α<π, è, çíà èò, A ε μ åãóëß íîå ìíîæåñòâî â R 2. Òîãäà z A ε ïî òåî åìå 1. Òàê êàê A îáëàäàåò óñèëåííûì m-ñâîéñòâîì, òî A ε îáëàäàåò m-ñâîéñòâîì. Òîãäà ïî òåî åìå 3 ñóùåñòâóåò îïî íàß α ε -ãèïå ïëîñêîñòü Γ ε (z ) ê A ε âòî êå z. Ìíîæåñòâî A ε ñîäå æèòñß âîäíîì èç çàìêíóòûõ ïîëóï îñò àíñòâ Φ (z ), Φ + (z ), ïî îæäåííûõ α ε -ãèïå ïëîñêîñòü Γ ε (z ). Ïóñòü äëß îï åäåëåííîñòè A ε Φ + (z ) (ñì. èñ. 13). R 2 Φ (z ) Γ(z ) K 0 (z ) Γ ε (z ) Φ + (z ) Φ + (z ) π α π α ε z A ε Ðèñ. 13. Ó èòûâàß òî, êàê äîêàçûâàëàñü òåî åìà 3, ìîæåì ñ èòàòü, òî Φ (z ) åñòü âûïóêëûé çàìêíóòûé êîíóñ â R 2. Ã àíèöà Γ ε (z )= Φ (z ) êîíóñà Φ (z ) åñòü α ε -ãèïå ïëîñêîñòü â R 2,è ïî òîìó óãîë êîíóñà Φ (z ) ï è âå èíå z àâåí π α ε. Òàê êàê α ε α, òî π α π α ε,è,

17 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 111 çíà èò,âêîíóñ Φ (z ) ìîæíî âëîæèòü çàìêíóòûé âûïóêëûé êîíóñ K 0 (z ) ñóãëîì ï è âå èíå z, àâíûì π α. Î åâèäíî, òî ã àíèöà Γ(z )= K 0 (z ) êîíóñà K 0 (z ) åñòü α-ãèïå ïëîñêîñòü â R 2 (ñì. èñ. 13). Γ(z ) Φ (z ) R 2 ρ Γ z A A ρ ρ Ðèñ. 14. Ïëîñêîñòü R 2 àçáèâàåòñß α-ãèïå ïëîñêîñòü Γ(z ) íà äâà çàìêíóòûõ ìíîæåñòâà Φ (z )= K 0 (z ) B α, Φ + (z ) A α, ï è åì {z } Φ (z ), A ε Φ + (z ). Ðàññìîò èì ìíîæåñòâî Φ (z ) ρ μ çàìêíóòó ρ-îê åñòíîñòü ìíîæåñòâà Φ (z ),ρ= ε 2 (0, ). Ïîëàãàåì Γ= Φ (z ) ρ (ñì. èñ. 14). Ìíîæåñòâî Γ åñòü α-ãèïå ïëîñêîñòü â R 2, êîòî àß àçáèâàåò R 2 íà äâà ïîëóï îñò àíñòâà Φ è Φ + òàêèå, òî {z } Φ,A ρ Φ +. Òåî åìà 4 äîêàçàíà. Òåî åìà 5. Ïóñòü A A α, α [0,π], μ çàìêíóòîå ìíîæåñòâî â R 2, êîòî îå ñîäå æèòñß â íåêîòî îì ïîëóï îñò àíñòâå Π s = {z R n : s, z χ}, (s R 2, s 0, χ R 1 ) è îáëàäàåò óñèëåííûì m-ñâîéñòâîì. Òîãäà A åñòü ïå åñå åíèå âñåõ α-ïîëóï îñò àíñòâ â R 2, åãî ñîäå æàùèõ. Ä î ê à ç à ò å ë ü ñ ò âî. Îáîçíà èì å åç Φ + ω, ω Ω, âñåâîçìîæíûå α-ïîëóï îñò àíñòâà â R 2, ñîäå æàùèå A. Ñîâîêóïíîñòü {Φ + ω : ω Ω} íåïóñòà. Â ñàìîì äåëå, àññìîò èì ïîëóï îñò àíñòâî Π + s = {z R 2 : s, z χ} â R 2. Âûáå åì íåêîòî ó òî êó z o Π + s è ââåäåì êîíóñ K(z o ) = {z = z o + λh : λ [0, ), h R 2, (h, ˆs) π α} ñ óãëîì π α ï è âå èíå z o. Ïî ïîñò îåíè, ìíîæåñòâî Φ + (z 0 )=R 2 \ K(z o ) åñòü α-ïîëóï îñò àíñòâî â R 2, ñîäå æàùåå Π s. Çíà èò, A Φ + (z o ). Èòàê, ñï àâåäëèâî âêë åíèå A Φ + ω. ω Ω

18 112 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé Ïîêàæåì, òî âå íî îá àòíîå âêë åíèå Ï åäïîëîæèì ï îòèâíîå: ω Ω Φ + ω A. Φ + ω R 2 \ A. Çíà èò, ñóùåñòâóåò òî êà z Φ + ω \ A. ω Ω Ïî òåî åìå 4 ñóùåñòâóåò α-ãèïå ïëîñêîñòü Γ â R 2, ñèëüíî àçäåëß ùàß {z } è A, òî åñòü àçáèâà ùàß R 2 íà äâà ïîëóï îñò àíñòâà Φ è Φ + èç B α òàêèõ, òî {z } ρ Φ,A ρ Φ +, ãäå ρ (0, ), ï è åì Φ + åñòü α-ïîëóï îñò àíñòâî â R 2. Òàê êàê Φ + åñòü α-ïîëóï îñò àíñòâî, ñîäå æàùåå A, òî Φ + {Φ + ω : ω Ω}. Òîãäà ïîëó àåì, òî z Φ + ω Φ+, à ñ ä óãîé ñòî îíû {z } ρ Φ. Ï è ëè ê ï îòèâî å è ñ ω Ω ï åäïîëîæåíèåì îò ï îòèâíîãî. Òåî åìà 5äîêàçàíà. Â òåî åìå 5 óñòàíîâëåíî, òî çàìêíóòûå ìíîæåñòâà A â R 2 èç ñîâîêóïíîñòè A α, óäîâëåòâî ß ùèå íåêîòî ûì äîïîëíèòåëüíûì óñëîâèßì, ï åäñòàâèìû â âèäå ïå åñå åíèß α- ïîëóï îñò àíñòâ èç R 2. Òåìàòèêà, çàò àãèâà ùàß âîï îñû, êàñà ùèåñß ñò óêòó û ïå åñå åíèé ìíîæåñòââr n μ ëåìåíòîâèç A α è B α, âåñüìà àêòóàëüíà, íà íà âçãëßä. Òàêèå âîï îñû âîçíèêà ò, íàï èìå, â ñâßçè ñ äîêàçàòåëüñòâîì íåêîòî ûõ óòâå æäåíèé îá îòäåëèìîñòè α- ìíîæåñòâ â R n. Îá àòèìñß ê àññìîò åíè ñîâîêóïíîñòåé B α, ãäå α [0,π]. Ïî-âèäèìîìó, ñîâîêóïíîñòü B α çàìêíóòà îòíîñèòåëüíî îïå àöèè ϕ(a) =A B (B μ çàìêíóòîå âûïóêëîå ìíîæåñòâî â R n ). Âîçíèêàåò âîï îñ î òîì, ßâëßåòñß ëè ñîâîêóïíîñòü A α çàìêíóòîé îòíîñèòåëüíî îïå àöèè ϕ(a, B) =A B, ò. å. âûïîëíßåòñß ëè ϕ(a, B) A α ï è A è B èç A α. Êàê ïîêàçàíî À. Í. Ôîìèíûì â[1, ñ ], îòâåò íà òîò âîï îñ îò èöàòåëåí. Îò ñèòóàöèè α-îòäåëèìîñòè òî êè è α-ìíîæåñòâà â R 2 ïå åéäåì ê àññìîò åíè áîëåå îáùåé ñèòóàöèè äâóõ íåïå åñåêà ùèõñß ìíîæåñòâ èç R n μ ëåìåíòîâ ñîâîêóïíîñòè B α,α [0,π). Âûñêàæåì ñëåäó ùåå ï åäïîëîæåíèå. Ãèïîòåçà 1. Ïóñòü A è B èç R n μ ëåìåíòû ñîâîêóïíîñòè B α,α [0,π), òàêèå, òî ρ(a, B) γ, ãäå γ (0, ). Òîãäà ñóùåñòâóåò ãèïå ïëîñêîñòü Γ A α, ñèëüíî àçäåëß ùàß A è B. Â òåî åìå 4 îá îòäåëèìîñòè òî êè è ìíîæåñòâà ï åäñòàâëåí àñòíûé ñëó àé êàê íåêîòî- îå ïîäòâå æäåíèå ñï àâåäëèâîñòè ãèïîòåçû 1. Ðàññìîò èì åùå îäíó ñèòóàöè, ãîâî ßùó âïîëüçó ãèïîòåçû 1. Ïóñòü çàäàíû ñêàëß íûå ôóíêöèè f(x), g(x), x R n, ëèï èöåâû íà R n ñ îäíîé è òîé æå êîíñòàíòîé Ëèï èöà L (0, ). Ðàññìîò èì â R n+1 äâà ìíîæåñòâà A = epif( ) = {(x, y) : x R n, y f(x)} è B = hypo g( ) ={(x, y) :x R n,y g(x)}. Ï åäïîëàãàåòñß: inf x R n(f(x) g(x)) γ, ãäå γ (0, ). Ðàññìîò èì gr f( ) ={(x, y) :x R n,y = f(x)} R n+1. Êàæäîé òî êå z =(x,f(x )) gr f( ) ñîïîñòàâèì â R n+1 êîíóñ K(z )={(x, y) : x R n, y f(x ) L x x }. Êîíóñ K(z ) ñîñòîèò èç äâóõ çàìêíóòûõ âûïóêëûõ êîíóñîâ K + (z ) (âå õíåãî) è K (z ) (íèæíåãî) ñ âå èíîé z (ñì. èñ. 15). å åç ϑ (0,π) îáîçíà èì óãîë ï è âå èíå z êàæäîãî èç êîíóñîâ K + (z ),K (z ) μ íàèáîëü èé èç óãëîâ ìåæäó ê àéíèìè ëó àìè êàæäîãî èç êîíóñîâ. Âûäåëèì äëß îï åäåëåííîñòè àññóæäåíèé âå õíèé êîíóñ K + (z ). Âûäåëèì â K + (z ) ïà- ó λ,λ ê àéíèõ ëó åé, óãîë ìåæäó êîòî ûìè àâåí ϑ (ñì. èñ. 16). Ïî ïîñò îåíè êîíóñà K + (z ), óãîë ψ, êîòî ûé ñîñòàâëßåò êàæäûé èç ëó åé λ,λ ñïîäï îñò àíñòâîì R n ï îñò àíñòâà R n+1, àâåí π ϑ. 2 ω Ω

19 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 113 K + (z ) C z R n+1 K (z ) Ðèñ. 15. Îáîçíà èì å åç λ öåíò àëüíûé ëó K + (z ) μ ëó êîíóñà, ñîñòàâëß ùèé îäèíàêîâûå óãëû ñî âñåìè îá àçó ùèìè êîíóñà K + (z ). Ïóñòü z o (z o z ) μ êàêàß-ëèáî òî êà íà ëó å λ (ñì. èñ. 13), à α μ óãîë ìåæäó äâóìß ïå ïåíäèêóëß àìè, âîññòàíîâëåííûìè èç z o ê ëó àì λ è λ. Âèäèì, òî α =2ψ = π ϑ íå çàâèñèò îò âûáî à òî êè z o íà ëó å λ. Óòâå æäåíèå 1. Ìíîæåñòâà hypo f( ), epi f( ) è, çíà èò, gr f( ) åñòü ëåìåíòû ñîâîêóïíîñòè B α. Ä î ê à ç à ò å ë ü ñ ò âî. Âîçüìåì ï îèçâîëüíó òî êó z o R n+1 \gr f( ). Ïóñòü äëß îï åäåëåííîñòè z o epi f( ) (ñì. èñ. 17). Îáîçíà èì å åç z êàêó -ëèáî ï îåêöè òî êè z o íà gr f( ). Äëß ï îñòîòû áóäåì ñ èòàòü, òî z = 0 R n+1. Òî êà z íàõîäèòñß â ï îñò àíñòâå R n+1 = R n R 1 ñò îãî íèæå òî êè z 0 ; â ï îòèâíîì ñëó àå ï è ëè áû ê ï îòèâî å è ñ òåì, òî z μ ï îåêöèß òî êè z 0 íà gr f( ). Ýòî îçíà àåò, òî âåêòî s = z 0 z íàï àâëåí ââå õ âòîì ñìûñëå, òî s, l > 0; çäåñü e =(0,...,0, 1) R n+1. Ââåäåì ãèïå ïëîñêîñòü Π s (z )={z R n+1 : s, z =0} â R n+1, îïî íó ê à ó B(z 0 ; r) = {z R n+1 : z z 0 r} (r = z 0 ) â òî êå z =0. Òàêæå ââåäåì êîíóñ Áóëèãàíà T gr f( ) (z ) ìíîæåñòâà gr f( ) âòî êå z (ñì. èñ. 18). Îï åäåëåíèå êîíóñà Áóëèãàíà ñì., íàï èìå, â[4, 7]. Èç ñâîéñòâ âåêòî à s R n+1, íî ìàëüíîãî ê ãèïå ïëîñêîñòè Π s (z ), è ñâîéñòâ ôóíêöèè f(x), x R n, ñëåäóåò, òî îòîá àæåíèß Π s (z ) R n,t gr f( ) (z ) R n î òîãîíàëüíîãî ï îåêòè îâàíèß ìíîæåñòâ Π s (z ),T gr f( ) (z ) íà R n ßâëß òñß íàê ûâà ùèìè, è ïî òîìó ìîæíî ñ àâíèâàòü ìíîæåñòâà Π s (z ) è T gr f( ) (z ) ïî âûñîòå. T gr f( ) (z ) íàõîäèòñß ïîä Π s (z ) (çà èñêë åíèåì òî êè z =(x,f(x )), èáî âï îòèâíîì ñëó àå èìåëî áû ìåñòî s, h > 0 äëß íåêîòî îãî íàï àâëåíèß Λ h (z )={λh : λ 0} (h 0 R n+1 ) êîíóñà T gr f( ) (z ), òî ïîâëåêëî áû çà ñîáîé Λ h (z ) int B(z 0 ; r). Ýòî ïîâëåêëî áû çà ñîáîé ñîîòíî åíèå gr f( ) int B(z 0 ; r), ï îòèâî å àùåå îï åäåëåíè òî êè z. Çàìå àíèå 1. Íà èñ. 18 ï åäñòàâëåíà ñõåìà àñïîëîæåíèß ìíîæåñòâ B(z 0 ; r), Π s (z ), T gr f( ) (z ),K (z ) â ï îñò àíñòâå R n+1. Ñõåìà äîñòàòî íî àäåêâàòíî îò àæàåò àñïîëîæåíèå òèõ ìíîæåñòâ â R n+1. Òàê, íà òîé ñõåìå à B(z 0 ; r) àñïîëîæåí íàä ãèïå ïëîñêîñòü

20 114 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé λ λ z α λ R n+1 K + (z ) ϑ z α/2 R n Ðèñ. 16. R n+1 B(z 0 ; r) e z 0 s gr f( ) z gr f( ) Ðèñ. 17.

21 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 115 Π s (z ) T gr f( ) (z ) R n+1 B(z 0 ; r) e z 0 s z K (z ) Π s (z ) T gr f( ) (z ) Ðèñ. 18. Π s (z ); ãèïå ïëîñêîñòü Π s (z ) μ íàä êîíóñîì K (z ). Ýòî ñëåäóåò ïîíèìàòü òàê, òî âñå òî êè, ñêàæåì, ìíîæåñòâà B(z 0 ; r) àñïîëîæåíû âû å (ïî îòíî åíè ê íàï àâëåíè âåêòî à e =(0,...,0, 1)) ñîîòâåòñòâó ùèõ òî åê ãèïå ïëîñêîñòè Π s (z ). Îáîçíà èì å åç Π s (z ) è T (z ) ìíîæåñòâà òî åê â R n+1, àñïîëîæåííûõ ñîîòâåòñòâåííî íå âû å ìíîæåñòâ Π s (z ) è T gr f( ) (z ). Çàìåòèì, òî Π s (z ) ï åäñòàâèìî ââèäå Π s (z )={z R n+1 : s, z 0}. Èç òîãî, òî T gr f( ) (z ) íàõîäèòñß ïîä ãèïå ïëîñêîñòü Π s (z ), ñëåäóåò T (z ) Π s (z ). (2.2) Äàëåå îá àòèì âíèìàíèå íà êîíóñ K (z ) â R n+1. Ïî ïîñò îåíè, òîò êîíóñ àñïîëîæåí ïîä T gr f( ) (z ) (ï è òîì íå èñêë àåòñß, òî êîíóñû èìå ò îáùèå íàï àâëåíèß). Ýòî îçíà àåò, òî Èç âêë åíèé (2.2), (2.3) ñëåäóåò K (z ) T (z ). (2.3) K (z ) Π s (z ). (2.4) Ï èíèìàß âî âíèìàíèå (2.4) è òî, òî âå èíà z = 0 êîíóñà K (z ) óäîâëåòâî ßåò âêë - åíè z Π s (z ), ïîëó àåì, òî Π s (z ) μ îïî íàß ê K (z ) ãèïå ïëîñêîñòü â òî êå z (ñì. èñ. 18). Âìåñòå ñ òåì èìååì, òî s åñòü âåêòî âíå íåé íî ìàëè ê K (z ) â òî êå z = 0, òî åñòü s K = {s R n+1 : s, k 0 äëß ë áîãî k K (z )} (ñì. èñ. 18). Êîíóñ K â R n+1, ñîï ßæåííûé êêîíóñó K (z ), èìååò ìàêñèìàëüíûé óãîë ìåæäó îá àçó- ùèìè, àâíûé α = π ϑ (ñì. èñ. 19).

22 116 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé z 0 s α K z = 0 ϑ R n+1 K (z ) Ðèñ. 19. Ïîñêîëüêó z μ áëèæàé àß òî êàíàgr f( ) è, ñëåäîâàòåëüíî, áëèæàé àß òî êàíàhypo f( ) ê z 0 epi f( ) \ gr f( ), áûëà âûá àíà ï îèçâîëüíî, òî ïîëó àåì, òî ë áîé âåêòî s = z 0 z K è, çíà èò, z z 0 K. Â åçóëüòàòå ïîëó àåì, òî äëß ë áîé òî êè z 0 epi f( ) \ gr f( ) èìååò ìåñòî α hypo f( ) (z 0 ) α è, çíà èò, hypo f( ) B α. Ðàññóæäàß àíàëîãè íî, ïîëó àåì: äëß ë áîé òî êè z 0 hypo f( ) \ gr f( ) =hypof( ) \ epi f( ) èìååò ìåñòî α epi f( ) (z 0 ) α è, çíà èò, epi f( ) B α. Èç hypo f( ) B α, epi f( ) B α ñëåäóåò gr f( ) B α. Î åâèäíî òàêæå, òî ìíîæåñòâà hypo g( ), epi g( ), gr f( ) åñòü ëåìåíòû ñîâîêóïíîñòè B α. Âìåñòå ñ òåì óòâå æäåíèå A äîêàçàíî. Âå íåìñß ê âîï îñó î ñèëüíîé α-îòäåëèìîñòè ìíîæåñòâ A =epif( ) è B =hypog( ) â ï îñò àíñòâå R n+1 = R n R 1 â àìêàõ óñëîâèé, íàëîæåííûõ íà ôóíêöèè f(x) è g(x) íà ñ Äëß òîãî ââåäåì ôóíêöè h(x) =1/2 ( f(x) +g(x) ) : R n R 1. Òàê êàê ôóíêöèè f(x) è g(x) ëèï èöåâû íà R n ñ êîíñòàíòîé L, òî è ôóíêöèß h(x) ëèï èöåâà íà R n ñ êîíñòàíòîé L. Çíà èò, ìíîæåñòâî Γ=grh( ) â R n+1 åñòü ëåìåíò ñîâîêóïíîñòè B α ñ òîé æå êîíñòàíòîé α, òî A è B. Çàìåòèì òàêæå, òî Γ=grh( ) R n+1 åñòü ãîìåîìî ôíûé îá àç ãèïå ïëîñêîñòè R n ï îñò àíñòâà R n+1, àçáèâà ùèé R n+1 íà äâà ìíîæåñòâà, ãîìåîìî ôíûå çàìêíóòîìó ïîëóï îñò àíñòâó â R n+1 (ñì. èñ. 20). Ñëåäîâàòåëüíî, ìíîæåñòâî Γ åñòü B α -ãèïå ïëîñêîñòü â R n+1. Ïî óñëîâèßì, íàëîæåííûì íà ôóíêöèè f(x) è g(x), âûïîëíßåòñß f(x) g(x) γ,x R n è, çíà èò, f(x) h(x) =1/2 ( f(x) g(x) ) γ /2, h(x) g(x) =1/2 ( f(x) g(x) ) γ /2, x R n. Çàôèêñè îâàâ íåêîòî îå ρ (0,γ /2), ïîëó àåì g(x)+ρ<h(x) <f(x) ρ, x R n. (2.5) Èç (2.5) ñëåäóåò, òî ãèïå ïëîñêîñòü Γ = gr h( ) B α ñèëüíî B α - àçäåëßåò ìíîæåñòâà A ρ = { (x, y): x R n,y f(x) ρ } è B + ρ = { (x, y): x R n,y g(x)+ρ }. Äåéñòâèòåëüíî, ïîêàæåì, òî ï è íåêîòî îì ω (0, ) A ω A ρ, B ω B + ρ. (2.6) Äîêàæåì, íàï èìå, òî ï è íåêîòî îì ω (0, ) èìååò ìåñòî A ω A ρ. Ï åäïîëîæèì ï îòèâíîå. Òîãäà, âûá àâ ï îèçâîëüíî ïîñëåäîâàòåëüíîñòü {ω k },ω k 0 ï è k, èìååì

23 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 117 ( x, h(x) ) Γ x R n Ðèñ. 20. A ωk A ρ,k=1, 2,...Îòñ äà ñëåäóåò, òî äëß ë áîãî k N íàéäåòñß òî êà z (k) A ωk \ A ρ. Äëß z (k) èìååò ìåñòî ï åäñòàâëåíèå z (k) = ( x (k),f(x (k) ) ρ κ (k)), ãäå x (k) R n, κ (k) (0, ). Íå íà ó àß îáùíîñòè àññóæäåíèé, áóäåì ñ èòàòü, òî κ (k) 0 ï è k (ñì. èñ. 21). R n+1 y (k) ( x (k),f(x (k) ) ) gr f( ) ρ A ωk ρ ρ z (k) w (k) x (k) R n Ðèñ. 21. Ïóñòü y (k) = ( w (k),f(w (k) ) ),w (k) R n μ áëèæàé àß òî êà íàgr f( ) ê òî êå z (k),k N. Òàê êàê y (k) z (k) ω k,k N è ω k 0 ï è k, òî z (k) y (k) 0 ï è k, ò. å. x (k) w (k) 0 è f(x (k) ) ρ κ (k) f(w (k) ) 0 ï è k. Òîãäà ïîëó àåì, òî ï è âñåõ äîñòàòî íî áîëü èõ k N f(x (k) ) f(w (k) ) >ρ/2. Ñ ä óãîé ñòî îíû, òàê êàê w (k) x (k) 0 ï è k è ôóíêöèß f(x) ëèï èöåâà íà R n ñ êîíñòàíòîé L, òî f(x (k) ) f(w (k) ) L x (k) w (k) <ρ/2

24 118 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé ï è âñåõ äîñòàòî íî áîëü èõ k N. Ïîñëåäíèå äâà íå àâåíñòâà ï îòèâî å àò ä óã ä óãó, è, çíà èò, ï åäïîëîæåíèå îò ï îòèâíîãî íå âå íî. Îòñ äà ñëåäóåò A ω A ρ ï è íåêîòî îì ω (0, ). Àíàëîãè íî, B ω B ρ + ï è íåêîòî îì ω (0, ). Âêë åíèß (2.6) äîêàçàíû. Ï èíèìàß âî âíèìàíèå (2.6), ïîëó àåì, òî ãèïå ïëîñêîñòü Γ B α ñèëüíî B α - àçäåëßåò A ω è B ω ï è íåêîòî îì ω (0, ). Ñêîíñò óè óåì òåïå ü α-ãèïå ïëîñêîñòü Γ â R n+1, ñèëüíî α- àçäåëß ùó A ω è B ω, ïîäï àâèâ íåñêîëüêî ãèïå ïëîñêîñòü Γ B α. Ó èòûâàß îï åäåëåíèå ôóíêöèè h(x), x R n, è âûáî èñëà ρ, à òàêæå ïîëîæèâ ξ = γ 2ρ >0, ïîëó àåì ( g(x)+ρ ) + ξ /2 h(x) ( f(x) ρ ) ξ /2, x R n, ò. å. ïîëó àåì, òî ãèïå ïëîñêîñòü Γ B α àñïîëàãàåòñß â ñå åäèíå ñëîß Ω â ï îñò àíñòâå R n+1, çàêë åííîãî ìåæäó ã àôèêàìè ôóíêöèé f(x) ρ è g(x)+ρ, èìå ùåãî âûñîòó ξ > 0 (ñì. èñ. 22). R n+1 gr ( f( ) ρ ) A ρ Ω ( x,h(x ) ) Γ Ω ξ /2 Γ ξ /2 ( x,h(x ) κ ) B + ρ gr ( g( )+ρ ) Ðèñ. 22. Çàôèêñè óåì íåêîòî îå κ (0,ξ /2) èââåäåìêîíè åñêó κ -âà èàöè ãèïå ïëîñêîñòè Γ â R n+1. Äëß òîãî âûáå åì íåêîòî ó òî êó ( x,h(x ) ) Γ è, îïóñòèâåå âr n+1 íà âåëè èíó κ, ïîëó èì òî êó ( x,h(x ) κ ) Ω. Ïîëàãàåì q(x) = ( h(x ) κ ) + L x x, x R n. Ôóíêöèß q(x), x R n, âûïóêëà è Γ =grq( ) A α. Ââåäåì åùå îäíó ôóíêöè ϕ(x) =min ( h(x),q(x) ), x R n. Òàê êàê ôóíêöèè h(x) è q(x) ëèï èöåâû íà R n ñ êîíñòàíòîé L, òî è ôóíêöèß ϕ(x) ëèï- èöåâà íà R n ñêîíñòàíòîé L, è,ñëåäîâàòåëüíî, ìíîæåñòâî Γ =grϕ( ) â R n+1 μêîíè åñêàß κ -âà èàöèß ãèïå ïëîñêîñòè Γ óäîâëåòâî ßåò âêë åíè Γ B α ñ èñëîì α, tg(α/2) = L. Ê îìå òîãî, äëß òî åê z = ( x,h(x ) κ + ν ),ν>0 áóäåò α gr ϕ( ) (z) =α ï è äîñòàòî íî ìàëûõ ν>0. Ó èòûâàß gr ϕ( ) B α è àâåíñòâî α gr ϕ( ) (z) = α ï è íåêîòî ûõ z epi ϕ( ) \ gr ϕ( ), ïîëó àåì Γ =grϕ( ) A α. Òàêæå âèäèì, òî Γ â R n+1 α- àçäåëßåò ìíîæåñòâà A ρ è B + ρ è, ñëåäîâàòåëüíî, α- àçäåëßåò ìíîæåñòâà A ω è B ω. Òåì ñàìûì óñòàíîâëåíî, òî ñï àâåäëèâî ñëåäó ùåå óòâå æäåíèå î ñèëüíîé α-îòäåëèìîñòè.

25 α-ìíîæåñòâà â êîíå íîìå íûõ åâêëèäîâûõ ï îñò àíñòâàõ è èõ ñâîéñòâà 119 Òåî åìà 6. Ïóñòü â R n+1 çàäàíû äâà çàìêíóòûõ ìíîæåñòâà A =epif( ) è B =hypog( ), ãäå ôóíêöèè f(x) è g(x) ëèï èöåâû íà R n ñ êîíñòàíòîé Ëèï èöà L (0, ). Ïóñòü òàêæå inf x R n ( f(x) g(x) ) γ ï è íåêîòî îì γ (0, ). Òîãäà ìíîæåñòâà A è B åñòü ëåìåíòû ñîâîêóïíîñòè B α, ãäå tg(α/2) = L. Â ï îñò àíñòâå R n+1 ñóùåñòâóåò ãèïå ïëîñêîñòü Γ A α, ñèëüíî àçäåëß ùàß A è B. Àâòî û ïîñâßùà ò ñòàòü ïàìßòè ï îôåññî à Å. Ë. Òîíêîâà. ÑÏÈÑÎÊ ËÈÒÅÐÀÒÓÐÛ 1. Ó àêîâ Â.Í., Óñïåíñêèé À.À., Ôîìèí À.Í. α-ìíîæåñòâà è èõ ñâîéñòâà. Åêàòå èíáó ã: Èíñòèòóò ìàòåìàòèêè è ìåõàíèêè Ó Î ÐÀÍ, ñ. 2. Á óñ Äæ., Äæèáëèí Ï. Ê èâûå è îñîáåííîñòè. Ì.: Ìè, ñ. 3. Motzkin T. Sur quelques proprietes caracteristiques des ensembles convexes // Atti Accad. Naz. Lincei Rend. Cl. Sci. Fis. Mat. Natur Vol. 21. P Ïîëîâèíêèí Å.Ñ., Áàëà îâ Ì.Á. Ýëåìåíòû âûïóêëîãî è ñèëüíî âûïóêëîãî àíàëèçà. Ì.: Ôèçìàòëèò, ñ. 5. Ï åíè íûé Á.Í. Âûïóêëûé àíàëèç è êñò åìàëüíûå çàäà è. Ì.: Íàóêà, ñ. 6. Äåìüßíîâ Â.Ô., Ðóáèíîâ À.Ì. Îñíîâû íåãëàäêîãî àíàëèçà è êâàçèäèôôåpåíöèàëüíîå èñ èñëåíèå. Ì.: Íàóêà, ñ. 7. Bouligand G. Sur les surfaces depourvues de points hyperlimites // Ann. Soc. Polon. Math Vol. 9. P Ïîñòóïèëà â åäàêöè Ó àêîâ Âëàäèìè Íèêîëàåâè, ä. ô.-ì. í., ëåí-êî åñïîíäåíò ÐÀÍ, ï îôåññî, îòäåë äèíàìè åñêèõ ñèñòåì, Èíñòèòóò ìàòåìàòèêè è ìåõàíèêè èì. Í. Í. Ê àñîâñêîãî Ó Î ÐÀÍ, , Ðîññèß, ã. Åêàòå- èíáó ã, óë. Ñ. Êîâàëåâñêîé, ushak@imm.uran.ru Óñïåíñêèé Àëåêñàíä Àëåêñàíä îâè, ê. ô.-ì. í., çàâ. ñåêòî îì, Èíñòèòóò ìàòåìàòèêè è ìåõàíèêè èì. Í. Í. Ê àñîâñêîãî Ó Î ÐÀÍ, , Ðîññèß, ã. Åêàòå èíáó ã, óë. Ñ. Êîâàëåâñêîé, uspen@imm.uran.ru V. N. Ushakov, A. A. Uspenskii α-sets in finite dimensional Euclidean spaces and their properties Keywords: convex set, convex hull, α-set, α-hyperplane, α-separability. MSC: 52A30 The concept of α-set in a finite-dimensional Euclidean space, which is one of generalizations of the notion of a convex set, is introduced. The emergence of this concept is connected with the study of properties of attainability sets of nonlinear controlled systems. The numerical characteristic of nonconvexity degree of a set on the basis of which a classification of sets is carried out is defined in the paper. Analogs of basic concepts from the convex analysis are introduced into consideration and their properties are studied. Statements in the spirit of such theorems from the convex analysis as the theorem of existence of basic hyperplane to a convex set and theorems of separability of convex sets in Euclidean space are formulated and proved. The concept of magoriums of nonconvex sets is studied. Property of a magoriums is a sufficient condition for representation of a closed nonconvex set in the form of crossing of half-spaces in the sense of definitions entered in this work. The obtained results of the theory of separability of nonconvex sets can be extended on a case of hypograph and epigraph of the scalar functions with Lipschitz condition.

26 120 Â. Í. Ó àêîâ, À. À. Óñïåíñêèé REFERENCES 1. Ushakov V.N., Uspenskii A.A., Fomin A.N. α-mnozhestva i ikh svoistva (α-sets and their properties), Ekaterinburg: Institute of Mathematics and Mechanics, Ural Branch of the Russian Academy of Sciences, 2004, 62 p. 2. Bruce J.W., Giblin P.J. Krivye i osobennosti (Curves and singularities), Moscow: Mir, 1988, 262 p. 3. Motzkin T. Sur quelques proprietes caracteristiques des ensembles convexes, Atti Accad. Naz. Lincei Rend.Cl.Sci.Fis.Mat.Natur., 1935, vol. 21, pp Polovinkin E.S., Balashov M.B. Elementy vypuklogo i sil'no vypuklogo analiza (Elements of convex and strongly convex analysis), Moscow: Fizmatlit, 2007, 360 p. 5. Pshenichnyi B.N. Vypuklyi analiz i ekstremal'nye zadachi (Convex analysis and extremal problems), Moscow: Nauka, 1980, 320 p. 6. Dem'yanov V.F., Rubinov A.M. Osnovy negladkogo analiza i kvazidifferentsial'noe ischislenie (Fundamentals of nonsmooth analysis and quasidifferential calculus), Moscow: Nauka, 1990, 431 p. 7. Bouligand G. Sur les surfaces depourvues de points hyperlimites, Ann.Soc.Polon.Math., 1930, vol. 9, pp Received Ushakov Vladimir Nikolaevich, Doctor of Physics and Mathematics, Corresponding Member of the Russian Academy of Science, Professor, Department of Dynamic Systems, N. N. Krasovskii Institute of Mathematics and Mechanics, Ural Branch of the Russian Academy of Sciences, ul. S. Kovalevskoi, 16, Yekaterinburg, , Russia. ushak@imm.uran.ru Uspenskii Aleksandr Aleksandrovich, Candidate of Physics and Mathematics, Head of Sector, N.N.Krasovskii Institute of Mathematics and Mechanics, Ural Branch of the Russian Academy of Sciences, ul. S. Kovalevskoi, 16, Yekaterinburg, , Russia. uspen@imm.uran.ru